Tư tưởng Mật giáo có từ thời Phật giáo Nguyên thủy, thể hiện qua các câu thần chú trong các bộ luật và trong Kinh Khổng Tước. Nửa sau thế kỷ thứ 7 (AD), Ấn Độ giáo đã len lỏi trong các hệ thống học thuyết, kể cả giáo lý Phật giáo mà phục hưng trở lại, từ đó tạo ra sự cạnh tranh mãnh liệt đối với Phật giáo đương thời. Lúc bấy giờ, Phật giáo Đại thừa chỉ giới hạn trong phạm vi “kinh viện triết học”, lý luận học vấn, các phạm trù triết học biện luận.... Do vậy, đã tự tách mình ra khỏi quảng đại quần chúng trong khi những hiện tượng siêu hình, thần bí có ở khắp nơi trên đất Ấn. Vì thế, để thích ứng với tình thế mới, Phật giáo Đại thừa nhanh chóng và tích cực tiếp cận với Ấn độ giáo và Bà-la-môn giáo. Ban đầu khi tiếp xúc, phía Phật giáo có những phản ứng khá kịch liệt, có lúc cật lực phê phán những quan niệm nghi chấp về tế tự cầu phúc trừ họa và mật chú. Tuy nhiên vẫn xúc tiến việc hợp lý hóa hoặc Phật giáo hóa theo tinh thần tùy duyên, cuối cùng Mật giáo đã hình thành nên một hệ thống tương đối độc lập trong Phật giáo Đại Thừa.

Theo Mật giáo,[1] sự truyền thừa bắt đầu từ Đại Nhật Như Lai truyền cho Kim Cương Bồ tát. Ông viết 2 quyển kinh Đại Nhật và Kim Cương Đỉnh đem lưu lại trong một ngôi tháp. Long Thụ [2] mở tháp tiếp nhận 2 quyển kinh này và được Kim Cương Bồ tát chỉ dạy. Sau đó, Long Thụ truyền cho Long Trí, một cao tăng tại viện Đại học Nalanda.

Ngài Long Trí sau khi thụ pháp với ngài Long Thụ, đã truyền pháp và giáo hóa các nước miền Nam Thiên Trúc và Tích Lan (Sri Lanka). Mật giáo sau đó đã sớm được phổ biến về hướng Bắc để sang Tây Tạng, Trung Hoa và Nhật Bản và về hướng Nam để qua mấy xứ Tích Lan, Miến Điện (Myanmar), Nam Dương (Indonesia), Campuchia, Lào… hình thành hai nhánh Mật Giáo chính: Mật tông Nam Tông và Mật tông Bắc Tông.[3]